模型解釋性與公平性

2024 iThome 鐵人賽

DAY 25

AI/ ML & Data

從資料處理到深度學習系列第 25 篇

16th鐵人賽

evalin1214

2024-10-06 23:20:42

77 瀏覽

分享至

今天是第25天，今天要探討的是模型解釋性與其公平性，學習模型解釋性與公平性後，深刻理解了在構建人工智能模型時，不僅要追求準確性，還要關注其決策的透明性與公平性。模型解釋性讓我們了解模型的內部運作機制，增加對結果的信任。而公平性則強調避免模型對特定群體產生偏見，尤其在敏感領域如招聘、信貸等。學習過程中，發現如 LIME 和 SHAP 這類工具能幫助揭示模型決策，但同時也意識到在平衡性能與公平性之間仍需更多探索。